2025年底，最令人印象深刻的AI圈大事莫過於Gemini 3 Flash的發佈。它主打輕量級、速度快，不僅智能全面超越Gemini 2.5 Pro，而且部分性能也反超了3 Pro和GPT-5.2（比如程式設計能力和多模態推理），令人非常驚豔。就在前天，Gemini的三位共同負責人Oriol Vinyals、Jeff Dean、Noam Shazeer和Google AIStudio 的產品負責人 Logan Kilpatrick 罕見同台，進行了一次對話。這三位嘉賓都相當重量級：Oriol Vinyals是Google DeepMind 研究副總裁兼深度學習負責人；“傳奇院士”Jeff Dean 大家都認識，他也是Google首席科學家；Noam Shazeer則更不用說了——Transformer的論文作者之一，也是Gemini 的聯合負責人。在這場談話中，Gemini的三位共同負責人表示：現在新的 Flash 模型，往往已經能達到甚至超過上一代 Pro 的水平。Oriol Vinyals甚至坦言：Pro的主要作用，就是拿來蒸餾Flash！他認為，那怕犧牲一點智能，更快更便宜的模型對使用者來說也非常重要。所以對於Flash這樣小而強的模型，他們一定會持續增加投入。Logan Kilpatrick也透露，他們在GoogleAI Studio 裡針對 vibe coding 這個用例，做了一些 Flash 模型和 Pro 模型的對比測試。結果發現：即便 Flash 在智能上略遜一籌，但由於延遲更低、反饋更快，使用者反而寫得更多、留存更高。因為沒人願意一直等。可見 Flash 有多麼受歡迎。此外，他們還談論了Gemini這一年的整體進展、內部的訓練細節、對Pro和Flash版本的取捨以及模型後續演進的重要方向等等。Jeff Dean 透露，Gemini目前用的基礎架構是他2018年提出的Pathway架構，主要有三個目標：一個模型可以泛化到數百萬個任務，強多模態，並且採用稀疏啟動。現在Gemini已經基本實現了這三個目標。而Jeff Dean也透露，關於模型能力的演進方向，Google內部已經有了Gemini的下一個“五年計畫”。Gemini 3剛發佈時，Oriol 曾在X上表示，Gemini 3的核心秘訣是提升預訓練+後訓練，尤其在後訓練上還是一片未被開墾的“綠地”，有很大的提升空間。而在這次談話中，他也再次強調，當前階段最大的突破空間很可能在後訓練。Jeff Dean則認為，目前在一些Benchmark上，模型能力基本已經見頂，尤其是程式碼、推理和數學領域；但在“幫我規劃一次舊金山旅行”這種開放式任務上，模型能力還有較大的提升空間。另外，Noam 和 Jeff 也強調，大模型的規模依然重要，但它不再是決定一切的唯一變數。相比之下，模型的持續學習能力才是後續的重要改進方向。小編翻譯並整理了整期對話實錄，有不少有價值的資訊，enjoy！Gemini的起源：Google Brain與Deepmind的融合Logan Kilpatrick已經有不少人試用了 Gemini 3 Flash，並對模型進行了測試，整體反饋非常積極，勢頭非常強勁。此前我們發佈了 Gemini 3 Pro，現在整體都在加速推進。Jeff、Oriol、Noam，你們三位是 Gemini 的聯合技術負責人，整體上在引領 Gemini 的方向。也許我們可以從 Jeff 開始，請你從自己的視角談一談：在 Gemini 3 Flash 和 3 Pro 發佈的這個時間點，我們正處在一個怎樣的階段？以及最近這段時間，我們是如何走到今天這一步的？Jeff Dean當然。我們對 Gemini 3 系列模型感到非常興奮，包括幾周前發佈的 Pro，以及昨天發佈的 Flash。正如你所說，我、Oriol 和 Noam 是 Gemini 項目的三位聯合技術負責人。我們已經合作很多年了，一起工作一直非常愉快。從 Gemini 項目的起源來看，其實源於我當時的一個觀察：在 Google 內部，我們在大語言模型規模化方面已經積累了很多優秀成果；在 Google Brain（當時屬於 Google Research）也在推進多模態模型；與此同時，Oriol 在原 DeepMind 團隊中也在做相關工作。但問題在於，這些非常優秀的人才和研究工作是分散的，算力資源同樣是分散的。我認為，如果我們能真正整合力量，作為一個統一的團隊協作，會好得多。這就是 Gemini 團隊和項目的起點——發生在 Gemini 1.0 發佈之前不久。此後，看到模型一代代演進非常有意思：Gemini 1.5、2.0、2.5，再到幾周前發佈的 Gemini 3 Pro，以及本周發佈的 Gemini 3 Flash。我們對此都非常興奮。當然，我們也必須學會如何跨越海洋、跨越多個地點協作，這本身就是一個學習過程。但我認為我們現在已經真正進入了狀態。大約從一年前的 2.5 系列開始，到現在的 3 系列，我們明顯找到了節奏。Logan Kilpatrick我非常喜歡這一點。看到 Brain、DeepMind、Google Research 的人才真正融合在一起，並且取得如此快的進展，確實非常酷。Oriol，我也很好奇你從自己的視角怎麼看這個問題，尤其是從歷史上看，Brain 和 DeepMind 在研究方法上的差異。我個人在看《The Thinking Game》這部紀錄片時，一個非常強烈的感受是：DeepMind 在十年前解決的問題，以及後來 AlphaFold 面對的問題，和我們今天在 Gemini 上遇到的挑戰，其實非常相似。其中讓我印象最深的是資料問題：比如人類真實標註的蛋白質折疊資料非常稀缺，團隊必須通過各種方式“合成性地放巨量資料規模”。我很好奇，這種思路與你們今天所處的 RL、“測試時計算”範式之間，有多少相似性？你覺得當年那些問題和今天這個階段之間，有多大的連續性？Oriol Vinyals我可能先從一個更宏觀的角度來回答。在組織層面，我其實非常幸運：很多年前我在 Brain 團隊工作，後來我搬到倫敦，加入了 DeepMind。所以我親身經歷了這兩種研究文化在早期的差異。當然，正是我和 Jeff 之間的聯絡，最終也幫助我們啟動了 Gemini 項目，把這兩個團隊再次結合起來。從研究方式上看，尤其是 DeepMind 的早期文化，有一個非常鮮明的特點：明確的長期目標、宏大的願景，以及“不解決問題就不罷休”的項目周期。這種精神其實深刻地體現在 Gemini 的起點上——Gemini 的目標是建構 AGI，是“解決智能”這個問題，我們是為長期而來。3.0 很棒，但它並不是終點。當然，Brain 也有大量類似的長期項目，同時帶來了對神經網路架構、訓練方法等方面的多樣化探索和創新。這些基因同樣進入了 Gemini。所以可以說，這兩個組織的 DNA 在 Gemini 中完成了融合。而在方法論上，正如我們今天看到的那樣，無論是資料驅動的無監督/預訓練，還是強化學習（RL），依然是未來模型持續創新的“綠地”。回頭看一些早期項目，當時外界並不總是理解我們在做什麼，尤其是我們研究打電子遊戲的那段時間。但我們的目標始終是：開發能夠更廣泛泛化的演算法。事實上，很多當年開發的演算法，現在都可以直接應用在大語言模型上。當時這點對我們來說是顯而易見的，但對外界並不明顯。比如 AlphaFold 中使用的蒸餾、強化學習加監督式自舉（就像 AlphaGo 那樣），這些方法與今天在大語言模型中的做法是高度一致的。這些技術在不斷被發現、打磨、改進，而每一輪迭代都會帶來新的提升。我認為，從 2.5 到 3.0 的躍遷，無論是在預訓練還是後訓練上，都疊加了大量這樣的改進，最終形成了一次相當顯著的提升。Logan Kilpatrick我非常喜歡這個說法。我之後可能還會再提到這一點。順便說一句，我記得之前看到過一個 meme，不知道是 Jeff 還是 Oriol 發的，大概意思是：“是該擴展預訓練，還是擴展後訓練？”然後答案是同時狂按兩個按鈕。這個 meme 是誰的功勞？Jeff Dean我覺得是 Oriol 吧？Oriol Vinyals我好像聽說過這個說法，但 meme 不是我做的。不過感謝 whoever 發了那個 meme，我其實沒看到。Jeff Dean真正的“秘密”就是：更好的預訓練，加上更好的後訓練。Oriol Vinyals對，這就是秘密。非常“機密”的秘密。Noam Shazeer我覺得有趣的一點在於：雖然我們只有一個統一的目標，但這是一個可以從非常多正交方向持續取得進展的問題。正如 Oriol 提到的，“加強預訓練”“加強後訓練”只是其中兩個按鈕。實際上還有很多這樣的按鈕，每一個都能從不同維度提升模型效果。這恰恰非常適合一個擁有數百、上千名工程師和研究員的大型組織。你可能會覺得這麼多人一起工作一定會一團亂麻，但事實證明，如果問題本身可以被拆解為多個正交方向，那麼在十個方向上各取得一點突破，疊加起來就會產生巨大進展。這正是 Google Brain 自下而上研究方式的優勢，而它也與 DeepMind 更加聚焦長期目標的方式形成了非常好的互補。如何看待產品與模型的關係Logan Kilpatrick最近我在和一些人討論一個問題，Corey 也從某種角度提到過——我這裡用自己的方式轉述，不代表他的原話：產品本身是否也是一種“規模化機制”？我們可以擴展模型規模、擴展預訓練和後訓練、使用測試時計算等等。但現在你會看到，很多評測開始引入“帶工具的 benchmark”“帶 agent harness 的 benchmark”。我很好奇你們怎麼看待“產品”在其中扮演的角色：它是否能反過來幫助提升模型本身的能力和互動閉環？這是不是你們正在思考的方向？Noam Shazeer我認為這非常有價值。我很喜歡在 Google 這樣的全端公司工作，從底層 AI 技術，一直到服務數十億使用者。產品不僅能為訓練提供資料和反饋，也能極大提升團隊的動力。看到自己做的東西正在被真實使用者使用，這本身就非常有意義。Jeff Dean我補充一點：當你的工作被大量使用者使用時，這對人是極其有激勵作用的。這可以是直接的，比如 Gemini App；也可以是間接的，比如 Gemini API，被開發者使用，或者嵌入到各種 Google 產品中。這正是我當初進入軟體工程領域的原因之一，看到自己的工作被使用，是非常快樂的事情。少數人做出的成果，可以讓數百萬、數千萬，甚至數十億人受益。這是軟體行業非常獨特、其他職業很難擁有的體驗。Oriol Vinyals我從稍微不同的角度補充一下。我們三個人本質上都是深度學習研究者，但你永遠無法繞開真實世界。歷史上有無數例子：正是因為真實世界的需求，我們才不得不發明新的技術。比如在圖像識別早期，我們發現圖像並不會總是居中，於是需要設計能夠處理這種情況的模型。又比如文字是變長的，你無法直接把摺積網路套在可變長度的文字上，於是我們發展了循環網路、再到 Transformer。今天也是一樣。如果使用者希望和聊天模型進行跨越多年的長期互動，那我們就必須從研究層面正面解決這個問題。所以現實世界的需求本身，也在強迫我們不斷創新。當然，這也與動力、影響力密切相關，我們做的事情確實重要，這讓我們保持腳踏實地。Jeff Dean我再補充一點。除了關注“誰在用你的產品”，在一家全端公司裡，另一個巨大優勢是：我們會非常深入地思考訓練模型所依賴的基礎設施。我們已經建構自己的 AI 加速晶片 TPU 超過十年了。這對兩件事至關重要：一是讓深度學習模型可以部署到更多產品場景中；二是支援模型訓練規模的持續擴展。早在 2012 年左右 Brain 團隊成立初期，我們主要使用資料中心裡的 CPU 訓練模型。當時我們就訓練出了一個規模是此前最大模型 50 倍的神經網路，在視覺和語音任務上都取得了驚人的效果。但我們也很快意識到：如果要把這些模型服務給大量使用者，僅靠當時的 CPU 或 GPU 是不夠的，這直接促成了 TPU 項目的誕生。此後，我們持續迭代 TPU，使其能夠很好地支撐 Gemini 的大規模訓練和推理服務。目前最大的突破空間在後訓練Logan Kilpatrick是的，我們現在真的是怎麼都不夠用 TPU，這確實是一個非常現實的瓶頸。我不太清楚“Gemini 聯合技術負責人”這個職位的精確崗位說明是什麼，但我猜，對你們三位來說，工作中至少有一部分是要決定：下一步的關鍵技術下注點在那裡，我們要朝那些方向走。Demis 多次提到過這樣一個觀點，我相信也有不少人認同：要真正走向 AGI，可能一定需要某種架構層面或模型層面的根本性突破，而不僅僅是持續的工程創新。當然，我們也看到，每一次模型發佈本身就包含了大量創新。比如如果你單看 Gemini 3 Flash 和 3 Pro，就會發現這並不是第一次被提到，Flash 在後訓練配方上有一系列創新，使得它在某些基準上，儘管模型更小，但進步幅度甚至超過了 3 Pro。所以我很好奇，你們是如何看待這種張力的：一方面，短期和中期存在一個極其豐富的改進空間；另一方面，我們是否需要為未來做出一些“根本性”的新下注，去爭取真正通向 AGI 的突破？還是說，其實我們可以沿著現有範式繼續推進，只要不斷踏實地做創新，就足夠了？不知道這個問題是否引起你們的共鳴，誰願意先來回答？Oriol Vinyals我先來吧。Logan KilpatrickOriol，也許你可以順便解釋一下你常說的“drastic research（激進式研究）”是什麼意思。Oriol Vinyals好的。關於“drastic research”這個詞，其實挺有意思的，甚至有點“署名歸屬不清”。這是我和 Ilya 在 Brain 時代的一次討論，他說是我發明的，因為我當時說“這是一個非常 drastic 的想法”，但我記得這個詞是他先用的。總之不重要。它的意思其實很簡單：不是只做增量式思考，而是更超前地思考——真正需要發生什麼，才能帶來質變。當然話說回來，當一支非常強的團隊把大量增量改進做到極致時，這些改進是會疊加成巨大進步的。Gemini 就是一個例子，但對我來說更“極端”的例子其實是 AlphaFold。那個項目多年裡幾乎沒有發論文，而是持續打磨架構、訓練配方和每一個細節，始終圍繞著一個大目標前進。回頭看，AlphaFold 的成功其實是大量技巧和“深度學習工程細節”的積累，並不一定依賴某個突然出現的、極端顛覆性的技術。Transformer 當時已經存在，本身就是一個非常強的架構。當然，Noam 可以更詳細地講 Transformer。至於 AGI 到底需要什麼，我認為嚴格地不斷完善現有配方，也有可能就已經足夠。資料是存在的，潛力也在那裡。但與此同時，我們也不能排除未來會出現真正的“巨大躍遷”。我個人的判斷是：當前階段，最大的突破空間很可能在後訓練。當然，我們三個人的看法未必完全一致。不過，作為一個大型公司和大型項目，我們可以同時在多個方向下注，這本身也是我們的優勢。最後，關於“技術負責人”這個角色，我想補充一點：我們很大一部分工作，其實是篩選。團隊裡每個人都非常聰明、非常有創造力。很多時候，我們並不是提出想法的人，而是判斷那些想法最有前景。並不是“我們提出所有想法，別人來執行”，而恰恰相反。我想澄清這一點，給可能對我們日常工作有不同想像的朋友。我提名 Noam 接著講。Noam Shazeer謝謝 Oriol。確實，這是一個非常複雜的組合問題。有大的突破，也有小的突破。關鍵在於：它們可以正交疊加，而且不會引入過多技術複雜性，這樣我們才能不斷繼續往上疊。你可以粗略地想像：也許一個“大突破”能給模型增加 1 個 IQ 點；一個“小突破”只能增加 0.1 個 IQ 點。但只要我們持續把這些疊加起來，進展就會非常巨大。至於下一個“超級大突破”會不會出現？老實說，我覺得是 50/50。但我們確實在很多方向上都看到了大量創新：後訓練是重點，但預訓練、模型架構、資料、下游應用等方向也都在持續推進。Jeff Dean我認為，保持一個風險組合非常重要。一部分是更長期、更高風險、可能成功也可能失敗的想法；另一部分是希望能進入下一代 Gemini 模型的、相對短期但同樣重要的工作。後者往往理解得更清楚，需要通過實驗進一步驗證，它們也許只能帶來 1 分或 0.1 分的提升。但當你把很多這樣的改進疊加起來，就能實現代際飛躍。與此同時，我們也必須持續押注那些可能徹底改變現有範式的新方法。在 Gemini 項目啟動之前，大概在 2018 年左右，我們開始意識到：為不同任務分別訓練一大堆模型，可能並不是正確的方向。於是我發起了 Pathways 項目，其核心目標是：一個模型，能泛化到數百萬個任務能處理多模態輸入和輸出模型不是完全稠密的，而是稀疏啟動的圍繞這三個目標，我們不僅在模型上做探索，也搭建了底層的軟體基礎設施，以支援這種“稀疏、啟動方式很奇怪”的模型規模化訓練。實際上，今天 Gemini 使用的正是 Pathways 這套基礎設施。這三個目標，今天基本已經在 Gemini 的多個版本中實現了：一個模型可以做數百萬件事，強多模態，並且在最新版本中大量採用稀疏啟動。所以，設定五年期目標，然後一步步朝它們推進是非常有價值的。不是五年什麼都不做，而是沿途不斷取得階段性成果。現在，我們腦子裡也已經有了關於未來五年的類似藍圖：下一步模型能力該如何演進。程式碼、推理和數學已經被“擊穿”，下一步是開放式任務Logan Kilpatrick太棒了。Jeff，也許我們可以線下聊聊，把“未來五年的完整清單”拿出來看看。Noam 和 Jeff 都提到了一個點：模型能力在很多維度上都在持續提升，可能是某個評測的一兩個百分點，也可能是更細微的改進。但與此同時，我們也看到某些領域在 6 到 12 個月內被迅速“吃穿”了。比如程式碼、推理、數學。年初時，“Humanity’s Last Exam（HLE）”這種 benchmark，最強模型的得分還是個位數百分比；現在已經出現了 50% 以上的模型。程式碼領域的 AIM benchmark 幾乎已經被刷到接近 100%。我很好奇：你們覺得這種趨勢會持續嗎？還是說，程式碼、推理、數學這些領域，本身就有某些特性，使得進展會特別快，而其他領域（比如生物學）就沒那麼容易？Noam Shazeer我先說說程式碼吧。我覺得大家已經意識到程式碼領域極其有價值。可能我們作為工程師有點“近視”，因為它直接幫助了我們自己。但說實話，我本人就非常感謝 Gemini 在加速我的程式設計工作。而且這不僅是“我們覺得有用”，而是程式碼能力可以被用於建構極其高價值的東西，比如繼續建構 AI 本身。Jeff Dean我再補充一個關於數學的例子。兩年前，模型在 GSM8K（中學數學題）上都表現得很吃力，比如：“Fred 有 5 隻兔子，從兩個朋友那裡各拿到 1 隻，現在有幾隻？”而現在，我們已經有模型能在 IMO（國際數學奧林匹克）這種難度極高的競賽中拿到金牌。這充分說明：後訓練和強化學習在可驗證領域（如數學和程式碼）裡非常有效。原因在於：在這些領域，我們可以生成候選答案，並且明確地驗證對錯。數學可以用定理證明，程式碼可以運行、編譯、跑單元測試。而真正的挑戰在於那些“模糊領域”：比如生物問題，或者“幫我規劃一次舊金山旅行”這種開放式任務。這些問題沒有清晰的獎勵函數或對錯判斷。我認為，未來幾年一個重要方向就是：如何讓這些開放式領域的進展，像數學和程式碼一樣快。Flash版本：相比智能，速度快也很重要Logan Kilpatrick這也讓我聯想到當前的 Flash 時刻。顯然，蒸餾已經非常成功。我們有一個極其強大的“教師模型”，然後把能力蒸餾到 Flash 這樣的更小模型中。Oriol，我很好奇你怎麼看這個問題：在速度、效率、成本和智能之間做權衡時，我們的心智模型是不是Pro 模型完全不做妥協，反正以後可以再蒸餾？在多條研究主線平行的情況下，Pro 的決策是否最終決定了 Flash 能達到的上限？比如現在的 Gemini 3 Flash。Oriol Vinyals這是一個非常好的問題。回到 Gemini 項目最初的設計，Jeff 可能還記得最早的那些幻燈片：從一開始我們就明確，Gemini 會同時有兩個運行點：一個是：最大智能，不做任何妥協另一個是：更強可部署性，但不追求絕對前沿智能這種劃分方式非常有幫助，而且我認為短期內不需要改變。但現實發生的事情是：一代一代下來，新的 Flash 模型，往往已經能達到甚至超過上一代 Pro 的水平。也就是說，在固定模型規模或延遲條件下，智能水平在持續上升。當然，在最大規模下，Pro 仍然會在某些 Flash 難以觸及的能力上保持領先。這最終變成了一個使用者問題：你到底需要什麼？很多使用者可能會選擇 Pro，因為他們不想每次都猜“這個問題 Flash 行不行”。與此同時，我們也把蒸餾這件事做得非常成熟了。我和 Jeff 經常提醒大家，這其實是一篇當年被拒稿的論文，但它一次次證明了自己的價值。我認為，兩種模型之間的差距不一定會變成 0，但很可能會小到一個程度：Pro 的主要作用，就是用來“生成”Flash。當然，我們可能仍然希望把 Pro 直接交給某些使用者。但從長期來看，能以最低成本提供前沿智能，是一個非常理想的狀態。老實說，隨著 Gemini 3.0 的進展，我們已經離這個目標非常接近了。這真的非常令人興奮。Jeff Dean我補充一點。我們也在做端側模型，比如用於 Pixel 手機等裝置的模型，這類場景會有額外的約束，比如記憶體規模等。我認為延遲作為模型質量指標被嚴重低估了。能夠在極低延遲下，依然具備很強推理能力、可以處理複雜問題的系統，是非常非常重要的。延遲可以從不同層面來最佳化：一方面是模型層面的最佳化，通過架構設計讓模型天然更快；另一方面是硬體層面的決策，讓某些模型在未來的硬體平台上運行得特別高效。延遲和推理階段算力的另一個關鍵意義在於：它讓你可以在固定的延遲預算內，把模型“變得更聰明”。如果模型本身快 5 倍，你可以選擇：直接快 5 倍給出答案；或者讓模型“多思考一會兒”，得到更好的答案，同時仍然比原來快 2.5 倍。如果你有非常強大的硬體，再配合通過蒸餾得到的、輕量但能力依然很強的模型，這是一個必須持續投入的重要方向。Noam Shazeer我想補充一點。如果我們真的能做到這樣，其實是一種非常理想的工作方式：在訓練 Pro 模型 時，儘量不去在意推理性能，專注於智能本身；然後在 Flash 模型 上，重點最佳化延遲、成本和吞吐量。這讓我想起我大學時的一位電腦教授，杜克大學的 Owen Astrachan。他常說一句話：“先讓它跑起來（make it run），再讓它正確（make it right），然後讓它快（make it fast），最後讓它小（make it small）。”這基本就是軟體開發和偵錯的順序。而現在在模型上似乎發生了類似的事情：先讓模型能跑、再讓它聰明、再讓它快、再讓它便宜。看起來，很多“老智慧”仍然在發揮作用。Jeff Dean我很喜歡這個說法。確實，不同的使用場景需求差異很大：有些場景追求絕對最好的質量，並不太在意延遲；還有很多場景需要更快、更便宜的模型，用於高頻、規模化的使用。這正是我們常說的帕累托前沿：我們希望給使用者提供多個選擇。理想情況下，使用者最好不用太糾結：“這個請求我該用 Pro，還是 Flash？”但同時，提供一個連續的選擇區間，我認為是非常有價值的。Logan Kilpatrick完全同意。我可以分享一個具體例子：我們在 AI Studio 裡針對 vibe coding 這個用例，悄悄做了一些 Flash 模型和 Pro 模型的對比測試。結果很明顯：即便 Flash 在智能上略遜一籌，但由於延遲更低、反饋更快，使用者反而寫得更多、留存更高。因為沒人願意一直等。我昨晚還看到一條評論，有人說自己以前一直是“永遠用最聰明的模型、願意等待”的那一派，這點也呼應了你剛才的觀點，Oriol。但在用了 Gemini 3 Flash 之後，他重新評估了這個立場，因為迭代速度實在太快了，在很多情況下，那怕犧牲一點點智能也是值得的。Jeff Dean是的。其實在 Google 非常早期的時候，我們就極度重視搜尋結果頁面的響應速度，因為我們知道：低延遲是一種極其令人愉悅的使用者體驗。搜尋越快，人們就會搜得越多。Oriol Vinyals還有一個很直觀的現實是：我們依然處在人類在環（human-in-the-loop）的階段，所以我們並不會對等待和延遲免疫。另一個非常令人興奮、而且即將到來的應用場景是機器人。在機器人領域，你需要模型去控制和操作真實世界的裝置，這裡有物理層面的硬約束。我非常確信，對小而強模型的投入只會持續增加。我們對目前的進展本身也感到非常興奮。模型並不缺“聰明”，缺的是“持續學習”Logan Kilpatrick回到我們之前關於“面向未來的技術賭注”的討論，最近大家也談了很多自我改進、持續學習之類的話題。在不洩露任何“秘方”的前提下，我很好奇：這些方向在 Gemini 裡更多是偏研究探索，還是已經開始進入產品或工程視野？目前整個領域大概處在一個怎樣的成熟度區間？Oriol，你怎麼看？Oriol Vinyals這是一個非常“老派深度學習者”的問題。從歷史上看，神經網路的發展中，有些地方一直讓我覺得不夠優雅、也不夠合理。比如課程學習，我們現在是把各種難度的資料混在一個 batch 裡訓練模型，而人類學習通常是先學簡單的，再學困難的。這是一個我們做過一點、但遠遠不夠的方向。另一個多年來一直困擾我的問題是：我們訓練完模型、凍結權重、然後部署，部署後就再也不學習了。AlphaFold 不會從使用者那裡學習，AlphaGo 也不會從自己下過的棋局中繼續學習。至少在權重層面，這些系統在部署後是“靜態的”。這些顯然都是非常深層次、非常重要的改進方向。隨著我們逐漸接近 AGI，你會自然期待持續學習、情境學習這類能力出現。舉個例子，Demis 很喜歡和模型下棋。模型其實應該意識到：“我下得還不夠好。”然後它應該自己花一周時間專門學習國際象棋，再回來對 Demis 說：“我準備好了。”然後擊敗他。這裡有大量令人興奮、同時也是經典的開放問題。這說明它們不會容易，但我相信我們會做到。Jeff Dean順著持續學習這個話題說一句，其實預訓練本身就有點“反直覺”，至少和人類學習方式相比是這樣。現在的做法是：我們隨機初始化一個模型，把它“綁在板子上”，然後把海量文字、圖片、視訊流式地灌給它。最後再說：“好了，你現在可以開始在世界裡行動，學數學、學程式設計了。”這種方式下，每個 token 所包含的資訊密度其實很低。如果模型能在環境中採取行動、觀察後果、主動決定下一步關注什麼：比如它想學棋，就主動去讀棋譜；想學微積分，就去找相關內容——那會更像人類的學習過程。這是一條非常值得作為長期技術賭注去探索的方向。Noam Shazeer我並不是要否定“大規模流式訓練”。我們不僅僅是在把資料流過模型，而是讓模型對每一個 token 都做下一詞預測，而且規模是兆級 token。一個人一生可能只接觸到十億等級的語言 token，但通過預測別人接下來要說什麼，人類確實能學到很多東西。我們給模型提供的資料量是人類的成千上萬倍，這當然極其有價值。但我也同意 Jeff 的觀點：如果我們能把大量計算資源集中投入到最重要、最有價值的方向，無論是治癒癌症、建構程式設計智能體，還是其他重大問題，那會非常有意義。這也是為什麼我贊同 Oriol 的判斷：未來很多大的進展，很可能來自後訓練階段。Logan Kilpatrick我很喜歡這個結論，感覺我們兩種方式都需要。某種程度上，人類本身就“繼承”了進化過程中形成的生物學先驗，而大規模 token 流式訓練，可能只是一個很粗糙的代理。Jeff Dean是的。正如 Noam 說的，大規模流式訓練已經被證明非常有效，我完全不想否定它。但另一方面，人類一生看到的 token 數量遠少於模型，卻能達到很高的能力水平。這說明，可能存在一種比現在高 1000 倍甚至 10000 倍的資料效率學習方式。我認為關鍵在於：人類會思考行動的後果、觀察反饋，這種方式更偏向強化學習，而不僅僅是預測下一個 token。總結：多模態進展、超長上下文、通用模型能力提升Logan Kilpatrick太棒了。我們時間差不多了，最後想問一圈：回顧 Gemini 過去兩年的發展，有沒有那些出乎意料的地方？不管是進展比預期快的，還是慢的，或者某些意想不到的結果。Jeff Dean整體來看，最讓我欣喜的是多個方向同時取得進展。視訊和圖像生成能力的提升尤其明顯，而且它們越來越多地和主模型融合在一起，讓模型可以進行視覺推理。你可以看到生成結果，然後說：“不對，我想要的是這個圖像的一個小改動。”這種互動非常自然。另一個我認為被低估的能力是超長上下文。當你把大量資料放進上下文窗口時，這些資訊對模型來說是非常“清晰”的，它們以 KV cache 的形式存在。相比之下，訓練資料已經被“攪拌”進數十億參數中，對模型來說是模糊的。我覺得長上下文能力還遠沒有被充分利用。我們正在探索的一條方向是：如何讓使用者感覺自己彷彿擁有對數十億甚至兆 token 的注意力能力，就像把大半個網際網路、海量視訊放進了上下文窗口裡。Oriol Vinyals對我來說，最意外的是：我們曾經有一個專門做競賽程式設計的項目 AlphaCode，是高度特化的系統。但現在，用通用模型，我們卻在數學和程式設計競賽中拿到了金牌，而且沒有為這些領域做特別定製。這一點非常讓我驚訝。我當時反覆提醒團隊：這必須是模型本身的能力，而不是某個臨時分支、達成目標後就丟掉的東西。結果他們真的做到了。這可能是過去幾年裡最“激進”的驚喜。Noam Shazeer從理性上說，我並不完全驚訝——早在 2018、2020 年，就能預見模型會越來越聰明。但從情感上說，看到這一切真的發生了，還是非常震撼。你現在可以直接跟模型對話，讓它幫你算數學、寫程式碼，而且有成百上千萬的人對 AI 感到興奮。這真的非常有趣，我也非常期待接下來會發生的事情，希望它能給世界帶來更多正向影響。Logan Kilpatrick太完美的結尾了。Jeff、Oriol、Noam，非常感謝你們抽時間參與。也感謝大家的收聽，希望你們喜歡新的 Gemini 模型。如果有問題或反饋，隨時聯絡我們。我們會繼續“推石頭上山”，給大家帶來更好的模型和產品。希望明年初還能和大家一起迎來更多有趣的發佈。 (51CTO技術堆疊)